2億詐騙案一年後,AI換臉犯罪更瘋狂了

2025-03-14 | 來源: 鳳凰網科技 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

某社交平台上“AI換臉服務”帖子下，回復清一色：“視頻，照片，隨便換”。某二手平台上，用戶僅需提供5秒視頻和清晰五官照片，支付9.9元即可獲得定制化換臉視頻，2.9元的低價安裝包也讓粗糙的換臉工具觸手可及。

定制換一張臉成本有多高？答案是——只需要一杯奶茶錢。在各大平台上，換臉服務比比皆是，只需要9塊9，就能迅速獲得一個真假難辨的換臉內容。

隨著AI技術的迅速演進，有關DeepFake（深度偽造）的討論也愈演愈烈。

相關受害人，從全球知名藝人泰勒·斯威夫特、跨國公司高管、韓國未成年人，再到今年春節因AI配音刷屏的雷軍。2024年國慶期間，未經授權的雷軍AI語音包和換臉視頻在網絡上瘋傳，網友調侃：“十一放了七天假，八天被雷軍罵醒。”

不久之前，“雷軍稱AI換臉擬聲成違法重災區”話題也登上微博熱搜第二，相關討論量達到了1.4萬，足以見得DeepFake正成為困擾多數網友的一把利刃。

正如雷軍所言：“剛開始我覺得是網友喜聞樂見，拿我開涮我也能接受，但內容比較低劣，多到不得了的時候，就防不勝防，而且網友們也在投訴”。

深度偽造帶來的各類風險，該被重視起來了。

震驚一時的香港最大AI詐騙案

震驚一時的中國香港跨國公司詐騙案，曾經描述過如此戲謔的一幕。

跨國工程公司Arup香港分公司的一位員工，有一天突然收到了一封會議郵件，邀請他參加一場由總部高管發起的重要會議。

起初他有些懷疑，但隨著他進入會議，看到了一張張熟悉的高管面孔，警惕性也逐漸放了下去。包括該公司CFO在內的多位高管不僅入會了，還都開著視頻和麥克風，在發言中他們談論到了一起秘密收購案件，討論過後這些高管還給中層布置了任務。

曾志偉、崩牙駒和東南亞電信詐騙案

"祈福黨"騙案:正在英國華人聚居地出沒的詐騙案

上海一起電影"集資詐騙案"久拖未決,影視投資市場存模糊邊界

這位員工在會議中未進行任何發言，但對此次會議的真實性已全然接受，散會後，郵件和即時通訊消息就來了。其中的一位領導要求這名員工將2億港元（約合1.8億元人民幣）分別轉入5個賬戶中。

這名員工就這麼照做了，5天後，在與真正總部的溝通中，他發現，自己被騙了。

更為震驚的是，在這場神秘的會議中，這名員工其實是唯一的一名真人，其余所謂的高管，均由犯罪分子根據高管們在公開平台的視頻信息通過技術生成，是一個個虛擬數字人，卻做到了真假難辨的地步。

這件事發生在一年前。一年時間，對AI行業而言，意味著技術的飛躍已是指數級攀升。

由此引發的犯罪頻率也越來越高。

2025年1月，銀川某建材公司經理張先生接到“領導”視頻電話，要求緊急轉賬。因AI換臉技術高度逼真，他分兩次轉出20萬元。《法制日報》日前報道，天津李先生被AI合成的“領導”視頻誘導轉賬95萬元，警方與銀行聯動凍結83萬元。山西某犯罪分子甚至利用AI換臉通過人臉識別注冊虛假公司，虛開增值稅發票42余萬元。

一面是不斷高發的詐騙案例，一面是消費者淺薄的防范意識。

“有沒有高手會AI換臉呀？”

鳳凰網科技在檢索各大平台信息中發現，仍有不少人對換臉技術缺乏風險意識。某社交平台上“AI換臉服務”帖子下，回復清一色：“視頻，照片，隨便換”。某二手平台上，用戶僅需提供5秒視頻和清晰五官照片，支付9.9元即可獲得定制化換臉視頻，2.9元的低價安裝包也讓粗糙的換臉工具觸手可及，而DeepFaceLab等專業開源軟件搭配全網傳播的教程，更使得技術濫用呈現全民化趨勢。這種技術平權背後，暴露出法律監管與犯罪手段之間的嚴重失衡。